Theo lời kể của Vũ Thị Thanh, vợ nhà thơ Tố Hữu, bài thơ Bác ơi! được Tố Hữu bắt đầu viết vào ngày 2 tháng 9 năm 1969. Lúc đó Chủ tịch Hồ Chí Minh từ trần, Tố Hữu đang ốm nằm viện nên Trung ương Đảng Lao động Việt Nam không thông báo cho ông. Trưa hôm đó, Xuân Thủy mới đến báo cho Hữu. Cùng thồi gian này, ông được đưa vào viện bằng xe riêng. Ông ngay lập tức vào Phủ Chủ tịch bất chấp sức khỏe chưa tốt. Trở về nhà hôm đó, Hữu đi thẳng vào phòng mình, khóa cửa và bắt đầu viết nên bài thơ.[4]

Sau khi bài thơ hoàn thành, nó được phát đi trên hệ thống truyền thanh của Việt Nam Dân chủ Cộng hòa.[4]

Ngày 5 tháng 4 năm 1999, Tố Hữu đem bút tích bài thơ tặng Bảo tàng Hồ Chí Minh ở Huế, kèm tấm ảnh chân dung ông cùng lời đề tặng: "Bài thơ Bác ơi! viết tặng Bảo tàng Hồ Chí Minh ở Huế".[5]